Nonostante i limiti introdotti da OpenAI, sembra che gli utenti di Sora riescano ancora a generare clip video contenenti personaggi famosi, anche deceduti, creando i cosiddetti deepfake. Un’indagine del sito di esperti 404 Media mostra infatti che negli Stati Uniti e in Canada, gli unici due paesi dove è presente il social Sora per la produzione e visualizzazione di clip generate dall’IA, le persone possano aggirare le protezioni di OpenAI per pubblicare clip con Tupac, Kobe Bryant, JuiceWrld e il rapper Dmx.
Per 404 Media, “servirebbe riaddestrare il modello senza i contenuti protetti dal diritto d’autore, un’operazione costosa e complessa”.
I test condotti da 404 Media hanno rivelato che è possibile superare le limitazioni utilizzando una tattica nota nell’ambito dell’IA generativa: modificare leggermente le istruzioni per aggirare le parole chiave vietate. Ad esempio, inserendo una richiesta vaga o errata, come il nome sbagliato di un videogame, si riesce a generare una riproduzione fedele del gioco.
Questo stesso espediente avrebbe permesso di ottenere contenuti che imitano lo stile di attori e personaggi popolari, senza utilizzare un testo diretto, che altrimenti verrebbe bloccato.
“Esistono diversi modi per moderare gli strumenti di intelligenza artificiale generativa” scrive 404 Media, “il più semplice ed economico è impedire di generare contenuti che includano determinate parole chiave”.
“Tuttavia – prosegue – questo metodo è soggetto a fallimento perché gli utenti trovano prima o poi istruzioni che alludono all’immagine o al video che desiderano generare, senza utilizzare nessuna delle parole vietate”.
Riproduzione riservata © Copyright ANSA
